Recurrent Harness for Agentic Continual Learning
循环式 Harness 实现智能体持续学习的反向修订
🧭 Agent 持续学习 · 在线反思修订 ★ 深度解读
Massachusetts Institute of Technology · Meta MRS Research · Yale University
在流式持续学习中用下游反馈反向修订已检索反思,闭合前向读写循环,显著提升智能体在线适应与稳定性
📌 工作参考价值(3 点)
- 在电商/搜索推荐的在线 Agent 策略记忆中引入“反向修订”:发现某条策略反思(如“高点击低转化商品应降权”)在新场景失效时,不直接删除,而是用当前交互结果作为反馈修正其适用条件,并要求修订内容只基于原策略来源轨迹,防止未来信息泄漏;这能避免过时规则反复误导后续排序/query 决策。
- 严格在线无验证集/无 replay 场景下,反思摘要比原始轨迹更省 token;建议 top-k 取 5 左右,过多修订会导致 reflection drift 且成本上升。电商活动切换时可优先使用该类机制,同时用 stability/plasticity 分解评估切换后第一轮(无反馈)与后续轮次表现。
- 复用“修订后的旧反思作为 demonstration 引导新反思生成”的技巧:在线学习时先修正旧经验再写新策略,能让新策略带上更精确的适用条件(例如“只在促销季生效”),减少过度泛化。